Hạm đội 3 có nguồn gốc hình thành trong Chiến tranh thế giới thứ hai vào ngày 15 tháng 3 năm 1943 dưới quyền tư lệnh của Đô đốc William F. "Bull" Halsey. Ông mở tổng hành dinh của ông trên bờ biển tại Trân Châu Cảng, lãnh thổ Hawaii vào ngày 15 tháng 6 năm 1944. Hạm đội hoạt động trong và quanh Đảo Solomon, Philippines, Đài Loan, Okinawa và Quần đảo Ryukyu và sử dụng chiến hạm USS New Jersey (BB-62) như soái hạm. Hạm đội cũng hoạt động trong vùng biển của Nhật Bản để tung các cuộc tấn công vào Tokyo, căn cứ hải quân ở Kure và Đảo Hokkaido.

Các chiến hạm của Hạm đội 3 cũng được dùng để hình thành cơ bản cho Hạm đội 5 với tên gọi "Big Blue Fleet" khi dưới quyền tư lệnh của Đô đốc Raymond Spruance. Spruance và Halsey luân phiên nhau giữ chức tư lệnh hạm đội cho các cuộc hành quân lớn. Sự luân phiên này cho phép đô đốc kia và ban tham mưu của mình thời gian chuẩn bị cho một lượt thay phiên tiếp theo. Lợi ích thứ hai là làm cho người Nhật tưởng nhầm như có hai hạm đội riệng biệt thật sự.

Trên soái hạm USS Missouri (BB-63), Đô đốc Halsey đưa hạm đội của mình vào Vịnh Tokyo vào ngày 29 tháng 8 năm 1945. Ngày 2 tháng 9, các văn bản đầu hàng kết thúc chiến tranh được ký trên sàn chiến hạm này. Hạm đội 3 vẫn ở trong vùng biển Nhật Bản cho đến cuối tháng 9 khi các chiến hạm của Hạm đội được điều động về Tây Duyên hải Hoa Kỳ. Ngày 7 tháng 10 năm 1945, Hạm đội 3 được đặt thành một hạm đội trừ bị và được đưa ra khỏi tình trạng hiện dịch.

Ngày 1 tháng 2 năm 1973, theo sau một cuộc tái tổ chức Hạm đội Thái Bình Dương, Hạm đội 3 Hoa Kỳ được tái sử dụng trở lại như một hạm đội hiện dịch và đảm nhận các bổn phận của Hạm đội 1 Hoa Kỳ và Lực lượng Chiến tranh Chống Tàu ngầm Thái Bình Dương đặt căn cứ ở Đảo Ford, Hawaii. Hạm đội 3 đào tạo các lực lượng hải quân triển khai hải ngoại và đánh giá chất lượng kỹ thuật tiên tiến sẽ được dùng cho hạm đội. Ngoài ra, Hạm đội 3 có thể triển khai trong trường hợp có một cuộc khủng hoảng lớn xảy ra.

Ngày 26 tháng 11 năm 1986, Tư lệnh Hạm đội 3 chuyển cờ từ tổng hành dinh trên bờ biển xuống chiến hạm lần đầu tiên kể từ Chiến tranh thế giới thứ hai lên chiến hạm USS Coronado (AGF-11). Vào tháng 8 năm 1991, Tư lệnh Hạm đội 3, ban tham mưu và soái hạm, USS Coronado, chuyển cảng nhà đến San Diego, California.

Tháng 9 năm 2003, Tư lệnh Hạm đội 3 chuyển cờ từ soái hạm USS Coronado (AGF-11) lên tổng hành dinh trên bờ biển tại Mũi Loma, San Diego, California.[2]